Kálmán 1074 körül született Székesfehérváron I. Géza idősebb fiaként, öccse, Álmos egy évvel volt fiatalabb nála. Géza 1077-ben bekövetkezett halála után nagybátyja, Szent László király neveltette, aki papnak szánta az okos és művelt fiút. László, akinek nem született fia, 1094-ben őt nevezte meg utódjának - korábban Álmost részesítette előnyben, akit a frissen megszerzett Horvátország királyának tett meg. Kálmán a következő évben lépett trónra, s 1096-ban koronázták meg. Az Árpád-házban szokásos módon megosztotta hatalmát öccsével, Álmos dukátust, azaz hercegséget kapott.
Uralkodását végigkísérte viszálykodása öccsével. Álmos 1098-ban fellázadt, de akkor még békésen megegyeztek Tiszavárkonyban. Amikor Kálmán 1105-ben megkoronáztatta fiát, a későbbi II. Istvánt, Álmos a következő években lengyel és német segítséget is keresett a korona megszerzése érdekében, ám végül behódolásra kényszerült. Kálmán 1107-ben elvette tőle a dukátust, és Jeruzsálembe küldte zarándokútra. Álmos 1108-ban Németországba szökött, és V. Henrik német-római császár hadai élén tért vissza, de csak Pozsonyig jutott, és újfent bátyja bocsánatát kellett kérnie. Amikor a nyughatatlan herceg 1115 táján újabb összeesküvést szőtt, Kálmán Álmost és gyermekét - a későbbi II. Bélát - megvakíttatta, és a dömösi kolostorba záratta. Álmos 1125-ben megszökött, és két évvel később Bizáncban fejezte be életét.
Kálmán 1095-ben kíméletlen szigorral lépett fel az első keresztes hadjárat jobbára fosztogató előhadaival szemben, Bouilloni Gottfried rendezett seregét viszont erős kísérettel átengedte az országon. Külpolitikájában László nyomdokain haladva rákényszerítette a velencei dózsét a horvát és dalmát hercegi cím feladására, és miután 1102-ben Tengerfehérvárott (ma: Biograd na Moru) Horvátország, Szlavónia és Dalmácia királyává koronázták, ezeket a területeket Magyarországhoz csatolta. A terjeszkedéssel északi irányban is próbálkozott, de a többi Árpád-házi uralkodóhoz hasonlóan maradandó eredménnyel ő sem járt. A kiéleződő invesztitúraharcokban (a püspök beiktatásának joga az egyházi méltóságba) a pápaságot támogatta, többek között emiatt állt V. Henrik Álmos pártjára. Adriai hódításai elismerése fejében 1106-ban lemondott az invesztitúra jogáról, de azt már nem engedte, hogy a püspökök hűbéresküt tegyenek a pápának. Keresztülvitte a VII. Gergely pápa által meghirdetett úgynevezett gregorián reformokat, hozzájárult a papi nőtlenség bevezetéséhez, kötelezővé tette a házasság egyházi szentesítését, felállította a nyitrai püspökséget. Egyházpolitikai intézkedéseivel arra törekedett, hogy a főbb címeket minél műveltebb és rátermettebb férfiak nyerhessék el.
Nevéhez két törvénykönyv (1100, illetve 1116 körül) kiadása fűződik. László rendelkezéseihez képest jóval enyhébb szankciókat vezetett be: mérsékelte a halálbüntetés és a testcsonkítás alkalmazását, eltörölte a kényszervallatást. Legfőbb céljának a királyi hatalom és az ország gazdasági helyzetének megszilárdítását tartotta, ezért szűkmarkúan osztotta a javakat az egyháznak, és a világi birtokok öröklésének rendjét is megszigorította. Hosszú távra meghatározta az erdélyi vajda és a horvát bán címének használatát, intézkedéseket hozott a rabszolga-kereskedelemről, a zsidókról és a honvédelemről. A korban rendkívül felvilágosult módon a törvénykönyv így rendelkezett: "a boszorkányokról pedig, mivel ilyenek nincsenek, semmiféle vizsgálat ne tartassék". A közhiedelemmel ellentétben azonban Kálmán nem minden boszorkány létét tagadta: a latin szövegben a repülő, vérszívó boszorkányokat jelölő striga kifejezés szerepel, a dekrétumok a rontó hatalommal felruházott maleficák ellen tartalmaztak intézkedéseket.
Kálmán első felesége Buzilla (Felícia), Roger szicíliai normann gróf lánya volt, két ikerfiuk közül László nem élte meg a felnőttkort, II. István 1116-ban követte apját a trónon. A király 1110-ben megözvegyült, ezután Eufémiát, Vlagyimir Monomah kijevi nagyfejedelem leányát vette el. A várandós asszonyt 1114-ben házasságtörés miatt elűzte, annak fiát, Boriszt nem ismerte el. II. István 1131-ben gyermektelenül halt meg, s utódának Álmos herceg megvakított fiát, II. Bélát nevezte meg.
Könyves Kálmán elévülhetetlen érdemeket szerzett a keresztény magyar állam megszilárdításában, külpolitikájának köszönhetően az ország Közép-Kelet-Európa meghatározó hatalma lett. Korabeli képmása nem maradt fenn, személyéről a krónikák - mivel az Árpád-ház későbbi királyai Álmos ágából kerültek ki - előnytelen képet festettek. Valószínűtlen, hogy Kálmán akár püspök, akár király lehetett volna, ha valóban selypít, sánta, kancsal és púpos, ez az egyház szabályainak és a korabeli főurak elvárásainak is ellentmondott volna. Híres volt kivételes műveltségéről, a lengyel Gallus Anonymus írta róla, hogy "korának minden uralkodóját felülmúlta tudományával". Udvara szellemi központként szolgált, tudós papokkal vette körül magát, ő volt az első királyunk, akinek udvarában irodalmi élet alakult ki, itt születtek az István-legendák is.